Reasoning Structure of Large Language Models
大语言模型的推理结构
🧭 推理结构分析 · 逻辑谜题 · 推理效率度量 ★ 深度解读
ETH Zurich
将推理轨迹转化为可验证图并提出效率指标 η,区分聚焦推理与发散探索,揭示 token 量无法衡量推理质量。
📌 工作参考价值(4 点)
- 推理图提取方法可复用到复杂诊断场景:将模型自由文本输出转为原子声明与依赖图,对多步决策 Agent 的推理路径进行结构化审计。
- 效率指标 η 能暴露推理中的“冗余膨胀”与“验证开销”,可用于指导 Test-time Compute 的分配策略,避免盲目增加 token 预算。
- 框架中的声明验证依赖可执行环境,在电商/推荐场景中可结合知识库或规则引擎,对推理中间步骤做事实性校验,提升可解释性。
- 对于需要链式推理的生成式推荐(如 Semantic ID 序列推导),可借助图结构分析推理是否收敛到解所需的最小信息集,优化推理效率。